Progressive Training


Progressive Training

Progressive training can be used to train an artificial neural network when the dataset has a lot of training cases. The training begins by using only a part of the training cases. After training the network with only a subset of the training cases, more cases are used for training as shown below. The process continues until the network has been training with a dataset that includes all the available training cases. In some cases, the training can be fine tune at the end.
El entrenamiento progresivo puede ser usado para entrenar una red neuronal artificial cuando el conjunto de datos de entrenamiento tiene muchos casos de entrenamiento. El entrenamiento comienza usando solamente una parte de los casos de entrenamiento. Después de entrenar la red con solo un subconjunto de los casos de entrenamiento, mas casos son usados para entrenar cómo se muestra debajo. El proceso continua hasta que la red ha sido entrenada con un conjunto de datos que incluye todos los casos de entrenamiento disponibles. En algunos casos, el entrenamiento se puede ajustar en forma fina al final.

ProgressiveTrain1

ProgressiveTrain2

ProgressiveTrain3

ProgressiveTrain4

Problem 1
Progressive training cannot be used, if similar training cases are located next to each other in the training set. How can this problem can be solved?
El entrenamiento progresivo no puede ser usado, si casos de entrenamiento similares se ubican a lado de cada uno en el conjunto de datos de entrenamiento. Como puede solucionarse este problema?

Problem 2
On progressive training, the training of network on step N−1 is always faster than the training during step N. Is it better to use more epochs (iterations) on the first steps of progressive training than in the last steps?
En el entrenamiento progresivo, el entrenamiento de la red en el paso N−1 es siempre más rápido que el entrenamiento durante el paso N. Es mejor usar mas iteraciones (epochs) en los primeros pasos del entrenamiento progresivo que en los últimos pasos?

© Copyright 2000-2021 Wintempla selo. All Rights Reserved. Jul 22 2021. Home